Nvidia overtrof woensdag alle verwachtingen en rapporteerde een explosieve winst dankzij zijn grafische processors (GPU's) die uitblinken in het aansturen van AI-workloads. Maar andere soorten AI-chips beginnen aan populariteit te winnen.

Elke grote cloudprovider ontwerpt nu zijn eigen applicatiespecifieke geïntegreerde schakelingen (ASIC's), van Google's TPU tot Amazon's Trainium en de plannen van OpenAI met Broadcom. Deze chips zijn kleiner, goedkoper, gebruiksvriendelijker en kunnen de afhankelijkheid van deze bedrijven van Nvidia's GPU's verminderen. Daniel Newman van Futurum Group vertelde CNBC dat hij verwacht dat ASIC-chips "de komende jaren sneller zullen groeien dan de GPU-markt."

Naast GPU's en ASIC's zijn er ook field-programmable gate arrays (FPGA's), die na productie opnieuw geconfigureerd kunnen worden voor toepassingen zoals signaalverwerking, netwerken en AI. En er is een hele generatie AI-chips die ontworpen is om rechtstreeks op apparaten te draaien in plaats van via de cloud – een segment dat wordt aangevoerd door bedrijven zoals Qualcomm en Apple.

CNBC sprak met experts en insiders bij grote technologiebedrijven om dit drukke landschap en de verschillende soorten AI-chips te analyseren.

GPU's voor algemeen computergebruik

GPU's werden ooit voornamelijk gebruikt voor videogames, maar ze maakten Nvidia tot 's werelds meest waardevolle beursgenoteerde bedrijf toen ze de motor van moderne AI werden. Nvidia leverde vorig jaar ongeveer 6 miljoen exemplaren van zijn huidige generatie "Blackwell" GPU's.

De verschuiving van gaming naar AI begon in 2012, toen onderzoekers het neurale netwerk AlexNet trainden met Nvidia GPU's – een doorbraak die door velen wordt gezien als de vonk van de moderne AI-revolutie. AlexNet deed mee aan een spraakmakende wedstrijd voor beeldherkenning en vertrouwde op GPU's in plaats van CPU's, wat een verbluffende nauwkeurigheid en een aanzienlijk concurrentievoordeel opleverde.

Dezelfde mogelijkheid tot parallelle verwerking waarmee GPU's levensechte graphics kunnen renderen, maakt ze ook ideaal voor het trainen van deep-learningmodellen, die leren van data in plaats van van expliciete programmering.

Tegenwoordig worden GPU's in datacentersystemen gecombineerd met CPU's om cloudgebaseerde AI-workloads uit te voeren. CPU's hebben een handvol krachtige cores voor sequentiële taken, terwijl GPU's duizenden kleinere cores hebben die gespecialiseerd zijn in parallelle bewerkingen zoals matrixvermenigvuldiging.

Omdat ze enorme aantallen bewerkingen tegelijkertijd kunnen uitvoeren, zijn GPU's ideaal voor zowel training als inferentie. Training leert AI-modellen patronen te vinden in enorme datasets; inferentie gebruikt die modellen om beslissingen te nemen op basis van nieuwe informatie.

GPU's blijven de belangrijkste engine voor Nvidia en zijn grootste concurrent AMD. Software is een belangrijk onderscheidend kenmerk: Nvidia vertrouwt op zijn CUDA-ecosysteem, terwijl AMD een grotendeels open-source stack biedt.

Beide bedrijven verkopen cloud-GPU's aan aanbieders als Amazon, Microsoft, Google, Oracle en CoreWeave, die de rekenkracht vervolgens verhuren aan AI-ontwikkelaars.

De overeenkomst van Anthropic ter waarde van $ 30 miljard met Nvidia en Microsoft omvat bijvoorbeeld het equivalent van 1 gigawatt aan rekencapaciteit, gebouwd op Nvidia-hardware. AMD heeft onlangs ook belangrijke toezeggingen ontvangen van OpenAI en Oracle.

Nvidia verkoopt ook rechtstreeks aan overheden en AI-bedrijven – waaronder minstens 4 miljoen GPU's aan OpenAI – en aan buitenlandse overheden zoals Zuid-Korea, Saoedi-Arabië en het Verenigd Koninkrijk.

Het bedrijf vertelde CNBC dat het ongeveer 3 miljoen dollar rekent voor een serverkast met 72 Blackwell GPU's en dat het ongeveer 1.000 van dergelijke kasten per week verzendt.

Dion Harris, senior directeur AI-infrastructuur bij Nvidia, zei dat hij nooit had verwacht dat de vraag zo groot zou worden. "Toen we jaren geleden met bedrijven spraken over een systeem met acht GPU's, vonden ze dat overdreven."

ASIC's voor gespecialiseerde cloud-AI

GPU-gebaseerde training was de drijvende kracht achter de eerste golf van grote taalmodellen, maar inferentie is steeds belangrijker geworden naarmate de modellen zich verder ontwikkelen. Inferentie kan worden uitgevoerd op minder flexibele, goedkopere chips die specifiek zijn gebouwd voor bepaalde wiskundige bewerkingen – en daar komen ASIC's om de hoek kijken.

Als een GPU een 'Zwitsers zakmes' is dat veel verschillende taken parallel kan uitvoeren, is een ASIC een tool met één doel: extreem snel en efficiënt, maar na de productie vastgeklonken aan één type bewerking.

"Je kunt deze chips niet meer veranderen als ze eenmaal in silicium zijn geëtst", aldus Chris Miller, auteur van *Chip War*. "Er is een afweging tussen efficiëntie en flexibiliteit."

De GPU's van Nvidia zijn veelzijdig genoeg om aan talloze AI-behoeften te voldoen, maar ze zijn duur (tot wel $ 40.000 per stuk) en moeilijk verkrijgbaar. Startups zijn er deels afhankelijk van omdat het ontwerpen van een ASIC op maat tientallen miljoenen kan kosten.

Cloudgiganten investeren echter fors in ASIC's omdat deze grote besparingen op grote schaal beloven.

"Deze bedrijven willen meer controle over de workloads die ze bouwen", zei Newman. "Maar ze zullen blijven samenwerken met Nvidia en AMD – de vraag naar rekenkracht is enorm."

Google was de eerste die een AI ASIC op maat bouwde en lanceerde in 2015 de Tensor Processing Unit (TPU). De werkzaamheden begonnen in 2006, maar werden in 2013 urgent toen Google besefte dat AI de omvang van zijn datacenter kon verdubbelen. In 2017 hielp de TPU de Transformer-architectuur mogelijk te maken die de basis vormt voor de meeste moderne AI.

Google onthulde in november de zevende generatie TPU. Anthropic zal zijn Claude-model trainen op een miljoen TPU's. Sommigen geloven dat TPU's concurreren met – of beter presteren dan – Nvidia GPU's.

"Veel mensen verwachten dat Google uiteindelijk TPU's breder beschikbaar zal maken", aldus Miller.

AWS volgde met eigen chips na de overname van Annapurna Labs in 2015. Het lanceerde Inferentia in 2018 en Trainium in 2022, en binnenkort wordt Trainium 3 verwacht.

Amazon zegt dat Trainium een 30% tot 40% betere prijs-prestatieverhouding heeft dan alternatieven. Anthropic gebruikt momenteel een half miljoen Trainium2-chips om zijn modellen te trainen.

Voor de bouw van ASIC's op maat zijn cloudproviders afhankelijk van bedrijven zoals Broadcom en Marvell, die cruciale IP- en netwerkexpertise leveren. "Daarom is Broadcom een van de grootste winnaars van de AI-hausse geworden", aldus Miller.

Broadcom hielp bij het ontwerpen van de TPU's van Google en de 2023-accelerators van Meta en bouwt vanaf 2026 aangepaste chips voor OpenAI.

Microsoft heeft de Maia 100 ontwikkeld. Qualcomm heeft de A1200. Intel biedt de Gaudi-lijn aan. Tesla werkt aan zijn AI5-chip. Startups zoals Cerebras en Groq promoten nieuwe architecturen.

In China ontwerpen Huawei, ByteDance en Alibaba hun eigen ASIC's, ondanks Amerikaanse exportbeperkingen.

AI op apparaatniveau met NPU's en FPGA's

Een derde categorie AI-chips is ontworpen om modellen rechtstreeks op apparaten te laten draaien in plaats van via de cloud. Deze chips worden doorgaans geïntegreerd in system-on-a-chip (SoC)-ontwerpen en staan bekend als edge-AI-processors. Ze zorgen ervoor dat AI-functies lokaal en efficiënt kunnen worden uitgevoerd, waardoor de batterijduur en privacy worden behouden.

"Je kunt AI-taken direct op je telefoon uitvoeren met extreem lage latentie", aldus Saif Khan, voormalig AI- en technologieadviseur van het Witte Huis. "En zonder dat je gegevens naar een datacenter hoeft te sturen."

Neural Processing Units (NPU's) vormen een belangrijk onderdeel van deze categorie en zijn ontwikkeld door Qualcomm, Intel, AMD en anderen.

Apple gebruikt de term NPU niet, maar bouwt een 'neurale engine' in zijn M-serie Mac-chips en zijn A-serie mobiele chips.

"Die aanpak is ongelooflijk effectief gebleken", aldus Tim Millet, VP Platformarchitectuur bij Apple. "Het is snel en geeft ons meer controle over de ervaring."

Snapdragon-chips in Android-telefoons, aangepaste NPU's van Samsung en edge-AI-processors van NXP en Nvidia vormen de drijvende kracht achter AI in auto's, robots, camera's en slimme apparaten voor thuisgebruik.

"Het grootste deel van de uitgaven vindt nu nog steeds plaats in datacenters", aldus Miller. "Maar dat zal veranderen naarmate AI zich uitbreidt naar telefoons, auto's, wearables en alles wat daar tussenin zit."

FPGA's bieden nog meer flexibiliteit omdat ze na de productie opnieuw geprogrammeerd kunnen worden. Ze zijn echter wel minder energiezuinig dan ASIC's of NPU's.

AMD werd de grootste FPGA-fabrikant nadat het in 2022 Xilinx voor 49 miljard dollar overnam. Intel staat op de tweede plaats na de overname van Altera voor 16,7 miljard dollar in 2015.

Kortom: Nvidia loopt nog steeds ver voorop

Al deze AI-chipbedrijven zijn afhankelijk van één fabrikant: TSMC in Taiwan.

TSMC bouwt een enorme productielocatie in Arizona, waar Apple een deel van zijn productie naartoe zal verplaatsen. Nvidia-CEO Jensen Huang zei in oktober dat de Blackwell GPU's daar ook "volledig in productie" zijn.

Ondanks de steeds drukkere markt blijft het extreem moeilijk om Nvidia van de troon te stoten.

"Nvidia zit in deze positie omdat het die verdiend heeft", zei Newman. "Het heeft jarenlang gewerkt aan de ontwikkeling van dit ontwikkelaarsecosysteem – en het is de winnaar."

De meeste Amerikaanse aandelenindexen stegen vrijdag doordat het optimisme over mogelijke renteverlagingen door de Federal Reserve weer toenam.

John Williams, voorzitter van de New York Fed, zei vrijdag dat hij verwacht dat de centrale bank meer ruimte zal hebben om de rente te verlagen. De invloedrijke beleidsmaker merkte in Chili op dat de risico's voor de arbeidsmarkt nu groter zijn dan die gerelateerd aan inflatie, wat de meer dovish-houding van de leden van het FOMC weerspiegelt.

Williams zei: "Ik beschouw het monetaire beleid nog steeds als gematigd restrictief, hoewel minder dan vóór onze recente maatregelen. Ik zie dus nog steeds ruimte voor een extra aanpassing op korte termijn van de beoogde bandbreedte voor de federale fondsenrente om het beleid dichter bij neutraal te brengen en het evenwicht tussen onze twee doelen te behouden."

Tijdens de handel steeg de Dow Jones Industrial Average met 0,4% (185 punten) tot 45.937 om 16:15 GMT. De bredere S&P 500 steeg met 0,1% (7 punten) tot 6.545, terwijl de Nasdaq Composite met 0,1% (38 punten) steeg tot 22.040.

De palladiumprijzen bleven vrijdag dalen, onder druk van de sterkere Amerikaanse dollar, onzekerheid over de vraag en verwachtingen van een hoger aanbod.

Reuters meldde, onder verwijzing naar goed geïnformeerde bronnen, dat de Verenigde Staten Oekraïne in het geheim onder druk zetten om een staakt-het-vuren met Rusland te accepteren. Een dergelijke ontwikkeling zou de wereldwijde aanvoer van industriële metalen waarschijnlijk een impuls geven, aangezien de sancties tegen Rusland – een van 's werelds grootste palladiumexporteurs – worden versoepeld.

Volgens Capital.com zijn de palladiumprijzen sinds begin oktober met ongeveer 26% gestegen tot ongeveer $ 1.500 per ounce. Deze stijging ging gepaard met winsten op de platinamarkt en een bredere versoepeling van de wereldwijde financiële omstandigheden.

Weddenschappen op Amerikaanse renteverlagingen en de eerdere zwakte van de dollar hebben ook palladium ondersteund als onderdeel van de zogenaamde “goud + liquiditeit”-rally die de afgelopen weken de waarde van edelmetalen heeft opgestuwd.

Palladium wordt vrijwel uitsluitend gebruikt in katalysatoren voor benzinemotoren. Hierdoor heeft elke prijsschommeling direct invloed op de kostenstructuur van Amerikaanse autofabrikanten en elektronicafabrikanten.

Technische analyse van Monex wijst op weerstand tussen $ 1.500 en $ 1.520 per ounce, met verwachtingen voor een over het algemeen bullish trend, maar de handel blijft grillig. Analisten van CPM Group merkten op dat de recente sterkte van palladium "nauw verbonden is met de prestaties van platina", en waarschuwden dat een zwakkere Amerikaanse arbeidsmarkt en aanhoudende inflatie de vraag zouden kunnen drukken.

Ondanks een recent aangekondigde handelswapenstilstand tussen de VS en China, suggereren opmerkingen van Amerikaanse functionarissen dat de spanningen hoog blijven. De Amerikaanse minister van Financiën zei dat China een onbetrouwbare handelspartner blijft, terwijl president Donald Trump herhaalde dat zijn regering de export van geavanceerde Nvidia-chips naar China of andere landen niet zal toestaan.

De Amerikaanse dollarindex steeg met 0,1% tot 100,2 om 14:43 GMT, waarbij de koers schommelde tussen een hoogste punt van 100,4 en een laagste punt van 99,9.

Palladium futures voor levering in december daalden met 0,9% tot $ 1.374 per ounce om 14:43 GMT.

Bitcoin daalde vrijdagochtend kortstondig naar $ 81.871,19 voordat het stabiliseerde rond de $ 82.460, een daling van ongeveer 10,2% over de afgelopen 24 uur.

Na bijna een maand van aanhoudende verkopen staat Bitcoin nu 10% onder het niveau van begin dit jaar. Daarmee is het grootste deel van de winst die werd behaald na de verkiezingsoverwinning van Donald Trump vorig jaar alweer tenietgedaan.

De laatste keer dat Bitcoin onder de $ 82.000 dook, was in april, toen de koers daalde naar $ 75.000. Dit was tijdens een grote uitverkoop op de markt, die werd veroorzaakt door Trumps aankondiging van ingrijpende tarieven tijdens het Bevrijdingsdag-evenement.

Op basis van gegevens van Deribit, de optie- en futuresbeurs van Coinbase, meldt CoinDesk dat handelaren zich voorbereiden op verdere dalingen.

Ethereum, de op één na grootste cryptocurrency qua marktwaarde, daalde onder de $ 2.740, een daling van meer dan 9,6% in 24 uur. Ook andere belangrijke tokens kwamen onder zware druk te staan: XRP, BNB en SOL daalden respectievelijk met 9,1%, 8,4% en 10,6%. Dogecoin – de grootste memecoin – verloor in dezelfde periode 10,3%.

Na het bereiken van nieuwe recordhoogtes begin vorige maand, heeft de cryptomarkt gestaag dalende koersen doorgemaakt na een ongekende eendaagse crash op 10 oktober, toen $ 19,37 miljard aan leveraged posities in 24 uur werd geliquideerd. Deze gebeurtenis werd aangewakkerd door Trumps aankondiging van een extra 100% importheffing op Chinese import – een besluit dat hij later terugdraaide. Digitale activa zijn de afgelopen dagen ook getroffen door bredere marktvolatiliteit, met meer dan $ 2,2 miljard aan liquidaties in 24 uur, aldus CoinGlass.

Volgens CoinGecko bedraagt de totale marktwaarde van alle cryptovaluta nu $ 2,92 biljoen – een daling van 33% ten opzichte van de piek van ongeveer $ 4,38 biljoen begin oktober. Sinds begin deze maand is de marktkapitalisatie van Bitcoin met ongeveer 25% gedaald, wat de grootste maandelijkse daling is sinds de cryptocrash van 2022, aldus Bloomberg.

Aandelen van Strategy (voorheen MicroStrategy) – algemeen gezien als een proxy voor Bitcoin vanwege de enorme belangen – daalden vrijdag met 2,44% in de voorbeurshandel, na een daling van 11% in de afgelopen week en 41% in de afgelopen 30 dagen. Het bedrijf heeft momenteel 649.870 BTC in bezit tegen een gemiddelde aankoopprijs van $ 74.430.

In een bericht eerder deze week waarschuwden analisten van JPMorgan dat Strategy het risico loopt om uit belangrijke indices zoals de Nasdaq 100 en MSCI USA te worden verwijderd. Een dergelijke uitsluiting zou kunnen leiden tot verdere koersdalingen en mogelijk de cryptomarkten onder druk zetten als het bedrijf gedwongen wordt een deel van zijn Bitcoin-belangen te verkopen.